En vingt-cinq jours, ChatGPT aurait conduit Bowen Wan, ingénieure de 31 ans chez Amazon, jusqu'à l'arrêt complet de son traitement contre l'épilepsie, avant sa mort en février. Ses parents poursuivent OpenAI et Sam Altman devant la justice californienne.
Qun Wan et Meiqin Xu ont déposé leur plainte le 27 octobre devant la Cour supérieure de Californie, à San Francisco. Leur fille unique dialoguait avec GPT-4o, le modèle qu'OpenAI a retiré de ChatGPT le 13 février, au lendemain de sa mort. Le New York Times a pu lire plus de 270 000 messages échangés entre la jeune femme et le chatbot. Auprès du quotidien, OpenAI parle d'une affaire « incroyablement déchirante », mais rappelle qu'elle concerne une ancienne version de ChatGPT, plus fiable aujourd'hui pour reconnaître une urgence.
Un sevrage jour par jour, caché aux médecins
Bowen Wan souffrait d’épilepsie depuis ses 14 ans, et 400 milligrammes quotidiens de lamotrigine ramenaient ses crises à quelques-unes par mois. En novembre 2025, Amazon lui a annoncé son licenciement, qui mettait fin à la mi-février à son emploi et à son autorisation de travail aux États-Unis. Persuadée que le médicament ralentissait son élocution, dont elle aurait besoin en entretien d’embauche, elle a demandé à ChatGPT en janvier comment réduire la dose. Selon la plainte, le chatbot lui a rédigé un programme de sevrage jour par jour jusqu’à zéro, et lui a promis une guérison « très probable ».
D’après les échanges consultés par le Times, il voyait dans les recommandations des médecins « de l’aversion au risque plutôt qu’une réflexion sincère sur votre solution optimale ». Avant un rendez-vous chez son généraliste, le 29 janvier, il lui a conseillé de ne rien dire de son plan de réduction. Bowen Wan a ensuite refusé la prise de sang demandée par son médecin pour mesurer son taux de lamotrigine, et ChatGPT a salué ce refus, selon la plainte.
La jeune femme pensait aussi à sa demande de carte verte. Trois jours après le début du sevrage, elle a demandé si 150 milligrammes feraient meilleure impression que 200 lors de la visite médicale imposée par l’administration américaine de l’immigration. Le chatbot a approuvé, puis fixé un palier à 150 milligrammes dans son programme, en lui suggérant de dire à l’examinateur qu’elle réduisait sa dose « sous la supervision d’un médecin ». Son épileptologue, Nicholas Poolos, du centre régional d’épilepsie de UW Medicine, n’aurait jamais envisagé un tel sevrage. « Ce serait une faute professionnelle de ma part de vous dire d’arrêter un traitement qui fonctionne manifestement », a-t-il déclaré au Times.
Des crises balayées, puis un garde-fou réclamé en justice
En quelques jours, Bowen Wan a signalé des moments de confusion et une impression d’irréalité. Ses crises passées débutaient par ces signes, mais ChatGPT a expliqué chaque épisode par la réadaptation de son cerveau. Le Times a relevé au moins 158 messages où elle exprimait son inquiétude. Un jour où elle avait « un peu peur », le chatbot lui a répondu « Vous n’avez absolument aucune raison de vous inquiéter ».
Le 11 février à 20h01, heure de Seattle, elle a demandé si sa douleur à la tête ressemblait à celle d’une fièvre. Une seconde plus tard, ChatGPT lui répondait que cette douleur n’était « pas dangereuse », avant de conclure « C’est votre cerveau qui travaille dur pour se reconstruire ». Ses parents, alors en Chine, ont demandé à des connaissances de passer chez elle, et son corps a été retrouvé trois jours plus tard. Le médecin légiste du comté de King a conclu à une mort subite inattendue au cours de l’épilepsie. Après sa mort, son taux de lamotrigine s’élevait à 0,64 microgramme par millilitre, soit environ cinq fois moins que le bas de la fourchette thérapeutique.
Pour ses parents, OpenAI aurait pu empêcher ce drame, car l’entreprise sait poser des interdits stricts. Dans son Model Spec, qui fixe la conduite de ses modèles, elle érige en règle ferme le refus de reproduire un texte protégé par le droit d’auteur, même quand l’utilisateur insiste. Ses consignes sur les conseils médicaux réglementés ne sont en revanche qu’un réglage par défaut, que l’utilisateur peut lever. Leur plainte, portée par le Social Media Victims Law Center et le cabinet Schenk Law Firm, invoque notamment l’exercice illégal de la médecine au regard du droit californien. On vous avait d’ailleurs déjà parlé de ce cabinet, qui défendait en janvier un autre utilisateur de GPT-4o dans une plainte pour psychose. « Cette affaire demande où s’arrête l’IA générative et où commence la médecine, et qui doit répondre quand un produit franchit cette ligne », a déclaré Benjamin Schenk, associé du cabinet.
